מודל HH:

• מודל של 4 משוואות דיפרנציאליות המתארות את פוטנציאל הפעולה.
• מודל לדינמיקה של קצב ירי הנוירון:

  • ניתן לפשט את המשוואות להבנה שהנוירון מתנהג כמו קבל שנטען ונפרק:

    • זרם נכנס -> קצב עולה.
    • זרם נפסק -> קצב יורד.

  • הנוסחא המופשטת היא: $\tau \frac{dr}{dt}=-r+i_{ext}$

  • הוספת סף הפעולה:

    • כדי להכניס את העובדה שיש לנוירון סף, נוסיף אי לינאריות לתרומה של הזרם.
    • הזרם יכנס אחרי שעבר דרך פונקציה אי לינארית שעור ערך נמוך של זרם תהיה במצב נמוך, ואם נבור את הסף היא תעבור לערך גבוה.
    • הנוסחא החדשה היא: $\tau \frac{dr}{dt}=-r+f(i_{ext})$

  • הרחבת הזיכרון של המודל:

    • נרצה מערכת המתפקדת בצורה הדומה למתג -> אם נרים מתג הוא ישאר דולק. באופן דומה, נרצה שבהינתן גירוי חיובי המערכת תעבור למצב חיובי, בהינתן גירוי שלילי המערכת תעבור למצב שלילי, ובשני המצבים היא תישאר שם עד הגירוי הבא.
    • נוכל להגדיר נוירון עם סינפסה עצמית (autopse): $\tau \frac{dr}{dt}=-r+f(i+w\cdot r)$
    • עבור f(x) נשתמש בפונקציית סטורציה:
      • 

מערכות דינמיות:

• זיכרון, חישוב, ועיבוד אינפורמציה הן באופן כללי פעולות דינמיות.
• נקודת שבת:
  • נקודת שבת היא מצב שבו אם המערכת נמצאת בה, היא נשארת בה אלא אם היא מופרעת.
  • נקודת שבת יציבה: היא נקודה שאם נפריע במקצת למערכת היא תחזור מחדש לנקודת השבת.
  • נקודת שבת לא יציבה: היא נקודה שבה גם הפרעה מזערית למערכת, תגרום לה לברוח מהנקודה לאחת הנקודות היציבות.
  • ייצוג מתמטי:
    • כאשר אין זרם נוכל לאפס את הנגזרת, ונקבל את הנוסחא: $r=f(wr)$
    • כאשר $w\le 1$ יש נקודת שבת אחת באפס.
    • כאשר $w>1$ יש 3 נקודות שבת באפס ושתיים קרובות ל 1 ומינוס 1.
  • מושך הדינמיקה (attractor):
    • ברשתות נוירונים, כל מצב יציב (נקודה או מסלול שלם) שאליו המערכת זורמת נחשב למושך, והוא מהווה פיסת אינפורמציה שנשמרת בזיכרון.

הרחבה לרשת עם מספר נוירונים:

• באופן כללי נרצה לאפשר קלט מהרבה נוירונים.
• לכן, נעדכן את הנוסחא הכללית לנוסחא המתחשבת בסכום המשקלים מכל הנוירונים האחרים המחוברים לנוירון המטרה.
• הנוסחא: $\tau \frac{d{r}_j}{dt}=-r_j+f(\sum _{i=1,i\ne j}^N{w}_{ij}{r}_i)$
• פונקציה פופולרית לפונקציית האי לינאריות במקרה זה היא suplus הנקראת גם ReLU.

קבלת החלטות - מודל Winner takes all:

• המודל נועד לחקות בחירה בין שתי אפשרויות.
• מכאן, נרצה שאם $I_1>I_2$ אז הפלט יהיה: $(r_1,r_2)=(r_{win1},0)$ וההפך. כדי ליישם זאת, נרצה לבנות תחרות בין הנוירונים.
• דרך פשוטה ליישם תחרות בין נוירונים היא שהמוביל יחבל במאמצים של השני, וההפך. ניתן ליישם את דרך זו על ידי השמת סינפסות אינהיבטוריות הדדיות בין הנוירונים.

פעילות מחזורית:

• ישנן מערכות עצביות המצריכות פעילות תנודתית קבועה (לדוגמא, בקרה של הליכה).
• במקרים אלו, המושך של הדינמיקה אינו נקודה אלא מסלול שלם יציב.
• ניישם את המערכת הזאת על ידי רשת המייצרת פעילות מחזורית מנוירון אחד באמצעות מנגנון של אינהיבציה עצמית בעלת השהיית זמן.
• נתאר זאת באמצעות נוסחא המתחשבת בזמן קודם: $\tau \frac{dr}{dt}=-r+f(I-w\cdot r(t-\mathrm{\Delta }t))$
• על מנת שהפעילות המחזורית תעבוד, משקל האינהיבציה העצמית חייב להיות מספיק חזק.